Reasoning Model
直訳すると推論モデル…だがinference(これも推論)は全てのモデルがしてるのでこの書き方は紛らわしいmorisoba65536.icon
その為かllmマニア詳しい人は「長考モデル」「思考モデル」「推理モデル」と言った言い方を好む傾向が見られるmorisoba65536.icon
Gemini 2.0 Flashに纏めさせた違い
Inference
* 観察や証拠に基づいて結論を導き出すプロセス
* 必ずしも論理的な根拠に基づいているとは限らない
* 例：
* 彼女は疲れているようだ。（観察）
* 彼女は昨日遅くまで残業していたらしい。（証拠）
* 彼女は今日は早く帰りたいのだろう。（inference）
Reasoning
* 論理的な思考に基づいて結論を導き出すプロセス
* 根拠や証拠に基づいて演繹的または帰納的に結論を導く
* 例：
* 全ての人間は死ぬ。（前提）
* ソクラテスは人間である。（前提）
* ソクラテスは死ぬ。（reasoning）
Reasoningは推理とも訳せるので単語の対訳を優先するなら推理モデル辺りだろうか？
挙動的には「長考」が解りやすいか
現在主な実装は隠れた(単純に<think>タグで囲ってUI上そこを折りたたんだだけだが…)連鎖思考で考えて、答えのみ返す(これも<Answer>タグで囲ったただの出力だが…)形が主流。(なので人間がAIの考えてることを覗いて読むことができる)
OpenAI o1も思考部分のテキストが一応展開できたりしたのでこの形だと思われるが詳細は不明(何もオープンじゃないので…)
この形式が大流行したのはだいたいDeepSeek-R1がMITライセンスで公開されたからが大きいだろう。
QwQ-32B-Previewなど考えてることをそのまま垂れ流すタイプもいるmorisoba65536.icon
始めに採用したのは確認できた範囲でClaude 3のようだ。
当時はプロンプトエンジニアリングの一種として使われたようだ
その頃はReasoningって言われてましたっけ?wogikaze.icon
Reflection-Llama-3.1-70Bは<think>タグを使っている
Claude 2 https://aws.amazon.com/jp/bedrock/faqs/基盤モデルを使用した生成系 AI アプリケーションの構築 – Amazon Bedrock に関するよくある質問 – AWS
<thinking>タグでCoTしている
元々Let's think Step by StepでCoTが流行り、その内容を<think>で囲った感じなのでどこからがReasoning Modelかと言われると微妙
Modelに出力形式を学習させていれば..?
サービスなら思考ボタンがあるoシリーズとGemini Think, DeepSeekぐらいかな～とwogikaze.icon